BAHSD: Bridging the Long-tail Gap via Adaptive Distillation in Black-box Sequential Recommendation
BAHSD：通过自适应蒸馏弥合黑盒序列推荐中的长尾差距
🧭 黑盒蒸馏 · 序列推荐长尾优化
Institute of Information Engineering, Chinese Academy of Sciences · School of Cyber Security, University of Chinese Academy of Sciences · Beijing Institute for General Artificial Intelligence
提出自适应蒸馏框架 BAHSD，用多尺度一致性探测与层次化目标缓解黑盒序列推荐中长尾信号异质性问题，尾部用户提升超 80%
📌 工作参考价值（4 点）
- 若业务需从黑盒推荐 API 蒸馏学生模型，可借鉴自适应信号处理：用多尺度一致性隐式量化 teacher 预测的可靠性，再分治高低置信度样本。
- 对头部用户易出现的偏好固化问题，采用动态温度 KL 散度平滑 teacher 分布，避免学生过度拟合局部模式，可迁移到召回/排序模型的蒸馏训练。
- 对尾部用户交互稀疏、信号嘈杂的场景，引入排序一致性损失和 InfoNCE 对比学习，可提升学生模型的泛化性与噪声鲁棒性，适合电商长尾商品/冷启用户建模。
- 该框架为即插即用方案，可在不改变基座模型结构的情况下以多层损失注入，工程实现成本较低，适合快速验证。